FVAttn: Adaptive Sparse Attention with Runtime Load Balancing for Video Generation
FVAttn：视频生成的自适应稀疏注意力与运行时负载均衡
🧭 分布式推理·稀疏注意力负载均衡
中山大学 · Tencent Inc. (WeChat HPC) · Tencent Inc. (WeChat Vision) · 北京大学
提出训练无关的自适应稀疏注意力系统，通过运行时头迁移与空闲填充解决多GPU序列并行的负载不均，推理加速超2倍
📌 工作参考价值（4 点）
- 自适应稀疏中的 Top-p + Top-k 地板 组合策略：确保每个注意力头至少保留 k 个高相关 token，避免完全稀疏导致的训练/推理不稳定，在 LLM 长上下文推荐对话或 Agent 记忆检索时可借鉴此安全机制。
- 运行时负载均衡通过 P2P 迁移少量“重头”到轻载 GPU，这对多 GPU 部署推荐模型（如生成式推荐、多模态理解）时的序列并行头负载不均问题有直接参考价值，可降低栅极延迟。
- Slack-Aware Sparse Augmentation 利用非关键路径 GPU 的空闲时间计算额外高价值块，这种“空闲填充”思路可迁移到分布式 Agent 流水线调度，在等待 I/O 或其他 Agent 结果时执行预取或候选评分。
- 将稀疏计算与负载均衡、通信重叠结合的整体系统设计，展示了在工业级推理服务中如何兼顾精度与吞吐，推荐系统从业者可将类似思想用于大规模模型的多路召回或多专家（MoE）推理的负载均衡。